1
分词与序列
EvoClass-AI004Lecture 4
0
🤖
哔哔!欢迎,学员!请选择下方子主题,了解人工智能如何通过分词来“阅读”。
Py-机器人指令实时
哔哔!你好,学员!要教人工智能阅读,我们首先得把单词切成微小的“乐高积木”块。准备好学习计算机如何将文字变成数字了吗?
主题进度0%
选得好!分词就像乐高积木。像“friendship”这样的词会被拆分成“friend”和“ship”等更小的部分。甚至连一个简单的“.”也是一个分词!对人工智能而言,这些小块比整段长句子更容易处理。
1
子主题 1
什么是分词?
将文本切分为“friend”和“ship”等微小的构建单元。
看这里!有了分词后,人工智能会为每个分词分配一个秘密编号。这些编号组成了“序列”。记住:顺序至关重要!“The dog bit the man”和“The man bit the dog”使用的是相同的分词块,但不同的顺序讲述的是完全不同故事!
2
子主题 2
序列的力量
将分词块转化为一个顺序至上的数学列表。
你知道吗?人工智能有一个“上下文窗口”,就像它的手掌大小。它一次只能在“脑海”里保留一定数量的分词,一旦超过就会开始遗忘开头的内容!
你知道吗?
人工智能有一个“上下文窗口”,就像它的手掌大小。它一次只能在“脑海”里保留一定数量的分词,一旦超过就会开始遗忘开头的内容!
加载中……
⭐⭐⭐
任务完成!
你已成为分词大师!